Beyond Scalar Distances: Semantic Attribute Gradients from Frozen MLLMs for Visual Embeddings
超越标量距离：用冻结多模态大模型的语义属性梯度训练视觉嵌入
🧭 利用 MLLM 提供属性级监督改善视觉嵌入
University of Illinois Urbana-Champaign
将冻结 MLLM 的属性感知预测转化为细粒度梯度，替代传统的类别标量监督，提升细粒度零样本检索
📌 工作参考价值（4 点）
- 电商商品检索中，可用多模态 LLM 生成商品属性描述，通过 GRPO 将属性感知信号注入视觉编码器，使嵌入对细微款式差异更敏感，无需额外推理成本。
- 注意力蒸馏 loss 可将 LLM 关注的属性 token 对齐到图像嵌入，提升模型对关键属性的聚焦能力，适用于细粒度商品识别和冷启动场景。
- 冻结大模型仅充当训练时的“属性教师”，线上部署时丢弃，保持轻量级编码器的推理效率，适合高流量推荐系统。
- 该方法不依赖类别标签即可实现属性级监督，可迁移到长尾或零样本推荐场景，利用 LLM 的开放知识增强检索能力。